Memory Tax: Dissecting the Net Value of Agent Memory
记忆税:剖析 Agent 记忆相对直接检索的净价值
🧭 Agent 记忆净价值与记忆税拆解 ★ 深度解读
University of Illinois Urbana Champaign · Tsinghua University · Renmin University of China · Verdent.ai · University of Waterloo
大规模评测发现多数 Agent 记忆系统不如 naive RAG,提出记忆收益与记忆税拆解净价值
📌 工作参考价值(4 点)
- 在电商/推荐 Agent 的用户长期记忆、会话记忆或经验记忆项目中,先把 naive RAG 作为强制 baseline;很多专用记忆在 retrieval-friendly 任务上会被简单 BM25+embedding+rerank 打败,若无法显著超过 RAG,就不值得上复杂记忆架构。
- 保留一条从记忆回到原始日志/会话的“可恢复路径”:构建 memory 时同时从原始历史检索并联合 rerank,能补回构建阶段丢失或模糊的证据;实验中 SimpleMem 加 src-aug 后 LongMemEval-s 准确率从 73.6 提升到 82.8,memory tax 从 12.0 降到 5.2。
- 把“未来查询需求”当作隐式推荐问题:不要 AOT 全量预构建,利用用户历史兴趣/访问模式/偏好作为先验,选择性地对可能被未来 query 需要的信息做抽象与索引;这类似推荐系统中预估 item/信息未来相关性。
- 记忆系统要报告检索成本与原始 RAG 的 headroom;在电商/Agent 检索友好场景下,复杂记忆的增量收益有限,轻量或 JiT memory 可能是更高性价比的选择。